Có một số câu chuyện kể về nguồn gốc của tác phẩm. Có truyền thuyết nói rằng, Lương Vũ Đế của nhà Lương đã ra lệnh cho Ân Thiết Thạch chép lại một ngàn chữ Hán không trùng lặp trên văn bia do nhà thư pháp nổi tiếng thời Đông Tấn là Vương Hi Chi viết, để cho các hoàng tử học tập thư pháp. Nhưng các chữ rời rạc, không liền mạch, cho nên hoàng đế lệnh cho Chu Hưng Tự biên soạn lại thành một tác phẩm có nghĩa. Có thuyết nói rằng, ông đã hoàn thành công việc đó trong một đêm, đến nỗi bạc trắng cả tóc.[2][3]

Sự phổ biến của tác phẩm này trong triều đại nhà Đường được thể hiện qua việc có khoảng 32 bản sao được tìm thấy trong các cuộc khai quật khảo cổ tại Đôn Hoàng. Vào thời nhà Tống, vì tất cả những người biết chữ đều thuộc nằm lòng tác phẩm này nên thứ tự chữ cái của tác phẩm này được sử dụng để sắp xếp tài liệu theo trình tự giống như việc sử dụng bảng chữ cái alphabet ngày nay.[4]

Các triều đại sau nhà Đường, Tam tự kinh, Bách gia tính, Thiên tự kinh được gọi chung là "Tam Bách Thiên", và là tài liệu phổ quát dành cho học sinh, từ những người ưu tú cho tới thậm chí một vài dân làng bình thường. Khi một học sinh học thuộc được cả ba tác phẩm này, anh ta có thể đọc, phát âm khoảng 2000 chữ Hán (có một số từ trùng lặp giữa các tác phẩm) dù chưa chắc có thể viết hay hiểu ý nghĩa của chúng. Vì tiếng Trung không có bảng chữ cái nên đây là một cách hiệu quả, dù tốn nhiều thời gian, để học chữ trước khi trau dồi kỹ năng đọc hiểu và viết.[5]